El Consejo Nacional de Justicia (CNJ) de Brasil está investigando un caso sin precedentes en la magistratura brasileña, donde un juez federal del Tribunal Regional Federal de la 1ª Región utilizó ChatGPT para redactar una sentencia en una acción laboral. La controversia surgió cuando el ChatGPT, empleado por el juez, creó jurisprudencias ficticias basadas en el Superior Tribunal de Justicia. Este error fue descubierto por el abogado de la parte perdedora en la acción, quien denunció la irregularidad.
El juez implicado no manifestó mucha vergüenza por lo sucedido y transfirió la responsabilidad del incidente a un servidor de su oficina, describiéndolo como un “mero equívoco” debido a la sobrecarga de trabajo que enfrentan los jueces. A pesar de que la corregeduría del tribunal inicialmente archivó el caso, el CNJ decidió reabrir la investigación. La investigación del CNJ apunta a determinar si hubo mala fe por parte del juez o si simplemente fue víctima de un error del servidor público.
Este incidente destaca tanto las posibilidades como los riesgos del uso de la Inteligencia Artificial en el sistema judicial. Por un lado, la IA puede ayudar a reducir la carga de trabajo de los jueces y acelerar el procesamiento de casos. Sin embargo, también es esencial garantizar que su uso sea responsable y ético. En respuesta al caso, Néviton Guedes, corregidor de la Justiça Federal de la 1ª Región, emitió una circular recomendando a los jueces y personal judicial no utilizar herramientas de IA generativas abiertas y no homologadas para la investigación de precedentes jurisprudenciales. Además, advirtió que el uso indiscriminado de la IA conlleva responsabilidades para el magistrado competente.
Néviton también recordó que el CNJ, mediante la Resolución 332/2020, autorizó el uso de la inteligencia artificial en el sistema judicial, pero estableció una serie de normas éticas para asegurar que su aplicación promueva el bienestar de los jurisdiccionados y una prestación equitativa de la justicia. Las herramientas de IA solo pueden servir como asistentes para los jueces, sin reemplazar su función esencial. El CNJ está en proceso de emitir una decisión sobre este caso, que podría orientar a otros tribunales sobre cómo abordar el uso de la Inteligencia Artificial en la justicia.
Este caso subraya la importancia de las balizas éticas en la integración de la IA en prácticas judiciales y destaca la necesidad de una supervisión y regulación cuidadosa para garantizar que su uso sea beneficioso y justo.
Con información de: Natelinha, Conjur y Globo.
Artículo redactado con asistencia de diversas inteligencias artificiales generativas con supervisión humana (redacción AD).
